CorporateBench: Large-Scale Q&A Benchmarking with Temporal Knowledge Bases
公司基准:基于时序知识库的大规模问答评测基准
🧭 企业级LLM文档QA评测
Epiq AI Labs · Cornell University
提出企业级文档问答基准CorporateBench,用230k+文档与时序知识库保证跨文档一致性,揭示LLM长上下文性能下降
📌 工作参考价值(4 点)
- 可借鉴用「时序知识库 + 合成企业文档」方案低成本构造大规模、多跳、跨文档一致的评测集,尤其适合电商场景中的商品详情、订单日志、客服会话等长文档数据,规避隐私问题。
- 文档-问题比高达87.6的压力测试,能暴露真实RAG/Agent在大量文档下的检索、路由、工具调用瓶颈;建议在业务评测中加入类似高比例多跳问题,而不仅是单文档Extractive QA。
- 其两个评测维度(信息抽取与知识库查询)可迁移为电商知识库Agent的能力分级:从抽取字段到执行SQL/Cypher查询、时间约束推理,验证模型在长上下文下的稳定性。
- 结论提示落地中不能只依赖单模型超长上下文,需结合索引/分片/检索或路由机制,尤其当语料规模超过10万文档时性能下降明显,应配套ragas式证据追踪和一致性校验。